Elu

逐元素计算指数线性单元 (Exponential Linear Unit, ELU) 激活函数。

\[\begin{split}\text{output}_i = \begin{cases} \text{input}_i & \text{if } \text{input}_i \ge 0 \\ \alpha \cdot (e^{\text{input}_i} - 1) & \text{if } \text{input}_i < 0 \end{cases}\end{split}\]

其中 \(\alpha\) (alpha) 是一个可调参数,控制负值的饱和度。

输入:
  • input - 输入张量的数据地址。

  • alpha - ELU函数的alpha值。

  • length - 输入张量的总元素数量。

  • core_mask - 核掩码。

输出:
  • output - 输出张量的数据地址,其大小与`input`相同。

支持平台:

FT78NE MT7004

备注

  • FT78NE 支持fp32, int8

  • MT7004 支持fp16, fp32

共享存储版本:

void fp_elu_s(float *input, float *output, float alpha, int length, int core_mask)
void hp_elu_s(half *input, half *output, half alpha, int length, int core_mask)
void i8_elu_s(int8_t *input, int8_t *output, int8_t alpha, int length, int core_mask)

C调用示例:

 1//FT78NE示例
 2#include <stdio.h>
 3#include <elu.h>
 4int main(int argc, char* argv[]) {
 5    float *input = (float *)0xA0000000;    // input 在DDR空间
 6    float *output = (float *)0xB0000000;   // output
 7
 8    float alpha = 1.0f;
 9    int length = 4096;
10    int core_mask = 0xff;
11
12    fp_elu_s(input, output, alpha, length, core_mask);
13    return 0;
14}

私有存储版本:

void fp_elu_p(float *input, float *output, float alpha, int length)
void hp_elu_p(half *input, half *output, half alpha, int length)
void i8_elu_p(int8_t *input, int8_t *output, int8_t alpha, int length)

C调用示例:

 1//FT78NE示例
 2#include <stdio.h>
 3#include <elu.h>
 4int main(int argc, char* argv[]) {
 5    float *input = (float *)0x10000000;    // input 在L2空间
 6    float *output = (float *)0x11000000;   // output
 7
 8    float alpha = 1.0f;
 9    int length = 1024;
10
11    fp_elu_p(input, output, alpha, length);
12    return 0;
13}